LLM Wiki

#AI

LLM Wiki는 옵시디언 같은 마크다운 vault를 LLM이 직접 쓰고 유지하는 위키로 운영하는 패턴입니다.

먼저 RAG는 질문이 들어올 때마다 지식을 처음부터 다시 찾습니다. 그래서 아무리 많이 물어봐도 아무것도 쌓이지 않습니다. 반면 위키는 한 번 정리해두면 그 위에 계속 덧붙여지기 때문에 복리로 쌓이는 자산이 됩니다.

구조는 3개의 레이어로 나뉩니다.

  1. raw/ : 원본 자료. 불변이고 LLM은 읽기만 합니다.
  2. wiki/ : LLM이 생성하고 유지하는 마크다운 노트.
  3. CLAUDE.md : 위키의 구조와 컨벤션. 사람과 LLM이 같이 진화시킵니다.

이 위에서 하는 동작은 ingest(적재), query(쿼리), lint(점검) 3가지입니다.

특수 파일이 2개 있습니다. index.md는 전체 콘텐츠 카탈로그인데 임베딩 없이도 수백 페이지를 커버할 수 있습니다. log.md는 append-only로 시간순 기록을 남겨서 grep으로 추적이 가능합니다.

그렇다면 이 방식이 왜 되는지가 중요한데, 위키가 망하는 이유는 상호참조 갱신이나 요약 최신화 같은 유지보수가 지루해서 사람이 포기하기 때문입니다. 단 LLM은 지루해하지 않습니다. 그래서 유지비가 거의 0에 가까워집니다.

이 아이디어의 계보는 1945년 Vannevar Bush의 Memex까지 올라갑니다. Memex는 "누가 경로를 유지하는가"라는 문제를 풀지 못했는데, 그걸 LLM이 해결한 셈입니다.